Rabin ra đời tại Jerusalem năm 1922 là con của Nehemiah và Rosa, hai nhà hoạt động hàng đầu của Aliyah thứ ba. Nehemiah Rubitzov, sinh ra trong một thị trấn nhỏ tại Ukraina năm 1886, mất cha khi còn là một đứa trẻ và đã làm việc để kiếm tiền cho gia đình từ khi còn rất trẻ. Khi 18 tuổi, ông di cư tới Hoa Kỳ, nơi ông gia nhập đảng Poale Zion và đổi họ thành Rabin. Năm 1917, Nehemiah tới Palestine Uỷ trị Anh với một nhóm người tự nguyện thuộc Quân đoàn Do Thái. Mẹ của Yitzhak, Rosa Cohen, sinh năm 1890 tại Mohilev ở Belarus. Cha bà, một giáo sĩ Do Thái, phản đối phong trào Zion, nhưng đã gửi Rora tới một trường trung học Thiên chúa dành cho các cô gái tại Homel, cho phép bà có được trình độ giáo dục rộng hơn. Ngay từ đầu, Rosa đã quan tâm tới các lý tưởng chính trị và xã hội. Năm 1919, bà tới vùng này trên chiếc S.S. Ruslan, người đứng đầu Aliyah Thứ ba. Sau khi làm việc tại một kibbutz (khu định cư ở Israel) trên bờ Biển Galilee, bà tới Jerusalem.[1]

Rabin lớn lên tại Tel Aviv, nơi gia đình họ tới sinh sống khi ông được một tuổi. Năm 1940, ông tốt nghiệp với bằng danh dự tại Trường Cao đẳng Nông nghiệp Kadoori và hy vọng sẽ trở thành một kỹ sư thuỷ lợi.[2] Tuy nhiên, ngoài nhiều khoá chiến lược quân sự tại Anh Quốc sau này, ông không bao giờ theo đuổi một bằng cấp.

Rabin cưới Leah Rabin (tên khi sinh Schlossberg) trong cuộc Chiến tranh Ả Rập-Israel năm 1948. Leah Rabin thời ấy đang là một phóng viên cho tờ Palmach newspaper. Họ có hai con, Dalia và Yuval. Rabin là người vô thần, với Dennis Ross bình luận rằng Ross không bao giờ gặp một người Do Thái thế tục hơn thế tại Israel.[3]